Năm Thiệu Bảo thứ 6 (1284), lúc ông vừa tròn 20 tuổi, vua Nguyên Mông sai thái tử Thoát Hoan đem quân xâm lược nước Đại Việt lần thứ hai. Nguyễn Chế Nghĩa xin đầu quân đánh giặc. Ông đã vượt qua tất cả các môn tỷ thí võ nghệ cũng như phép dùng binh. Quốc công tiết chế Hưng Đạo Vương khen: “Người chẳng kém gì Phạm Ngũ Lão, ta lại thêm một tướng tài”, liền cho ông làm tướng tiên phong.

Khi đội quân Nguyên – Mông vượt qua biên giới, Quốc công tiết chế phong Nguyễn Chế Nghĩa làm đại tướng, giao cờ lệnh cùng đại tướng Phạm Ngũ Lão đem 3.000 quân chặn giặc từ ải Nội Bàng, ải Nữ Nhi (Bắc Giang) đến Kỳ Cấp (Lạng Sơn). Ông đã nghênh chiến với Trương Bằng Phi, Áo Xích Lỗ là hai tướng vào loại kiệt xuất của Nguyên – Mông. Nguyễn Chế Nghĩa một mình một ngựa một thương lao thẳng vào quân giặc mà chém giết. Ông gây nỗi kinh hoàng và đem cái chết đến cho bọn xâm lược. Chúng khiếp sợ gọi ông là thần tướng. Sau đó Nguyễn Chế Nghĩa được lệnh rút về Lộ Hương tham gia những trận đánh không cho giặc tiến nhanh về kinh thành Thăng Long.

Khi vua Trần cho triều đình và nhân dân rút khỏi kinh thành thực hiện kế hoạch “vườn không nhà trống”, Nguyễn Chế Nghĩa được Quốc công tiết chế giao nhiệm vụ ở lại tổ chức dân binh hoạt động ở vùng sau lưng địch. Ban ngày ông lãnh đạo nhân dân chống địch giết hại nhân dân, cướp bóc của dân. Ban đêm ông đem quân tập kích vào trại giặc. Ông thiết lập mặt trận bí mật từ làng Kiêu Kỵ huyện Gia Lâm đến Cư Xá, Hải Dương để chặn giặc không cho chúng đánh sang Lộ Hồng. Ông chỉ huy trận phục kích giặc ở cánh đồng lấy cạnh rừng đay thôn Kiêu Kỵ, giết 300 tên giặc, không một tên nào sống sót chạy về kinh thành Thăng Long.

Khi quân ta chuẩn bị tổng phản công, Nguyễn Chế Nghĩa được lệnh của Quốc công tiết chế phối hợp với quân của Trung Thành vương tiêu diệt đồn Giang Khẩu ở ngoại thành Thăng Long. Nguyễn Chế Nghĩa cùng tướng Trần Nhật Duật chỉ huy đội quân thủy, quân bộ phục kích giặc trên sông Thiên Đức (sông Đuống) truy diệt quân địch, giết hàng nghìn tên.

Kết thúc cuộc kháng chiến chống quân Nguyên – Mông lần thứ hai, Nguyễn Chế Nghĩa được vua Trần phong chức U khổng Bắc tướng quân.

Trong cuộc kháng chiến chống quân xâm lược Nguyên – Mông lần thứ ba (1287 – 1288), Quốc công Tiết chế phong Nguyễn Chế Nghĩa làm chánh tướng tiên phong, cùng hai ông Hùng Thăng và Huyền Du làm phó tướng tiên phong. Ông mang quân đóng ở Yên Hưng (Quảng Yên, Quảng Ninh ngày nay), rồi lại đem quân lên cửa ải Nội Bàng, chém chết tướng giặc là Trương Quân. Khi biết Thoát Hoan trốn chạy theo đường núi, không chạy theo đường sông Bạch Đằng, vua sai ba ông lên giữ ải Nam Quan, Chi Lăng đánh lui Trương Bằng Phi, Áo Xích Lỗ. Sau đó ông còn đánh trên 20 trận nữa. Tiếp đó Nguyễn Chế Nghĩa nhận được lệnh đem quân về chặn quân giặc ở Vạn Kiếp, Lục Nam.

Sau chiến thắng Nguyên Mông, ông được cử làm Tổng trấn Lạng Sơn trong 6 năm liền. Tại vùng biên cương gian khổ, ông đã vỗ về yên dân, bảo vệ biên thùy. Sau đó, ông đã hai lần làm Tổng trấn lộ Hồng, mảnh đất quê hương.

Tuy ý đồ xâm lược nước ta không thành nhưng kẻ thù vẫn rất mạnh. Để giữ hoà hiếu lâu dài, các vua Trần đã 3 lần cử Nguyễn Chế Nghĩa tham gia đoàn sứ bộ đi Nguyên vào các năm 1312 đời Trần Anh Tông, 1321 đời Trần Minh Tông và 1331 đời Trần Hiến Tông. Chắc chắn trong cuộc đời nhiều võ công văn trị, ông đã sáng tác nhiều thơ văn song rất tiếc đã bị thất truyền khá nhiều; hiện mới sưu tập được 4 bài: Vô đề, Tự thuật, Đoan ngọ tiết và Bắc sở hành.

Như vậy, Nguyễn Chế Nghĩa vừa có võ công văn trị, vừa là nhà thơ và nhà ngoại giao. Ông được vua Trần Anh Tông yêu mến, gả cho công chúa Nguyệt Hoa. Trong cuộc hôn nhân này có một điều rất đặc biệt: dưới triều Trần con gái hoàng tộc không được lấy người ngoại tộc. Đây là một đặc ân rất lớn của nhà vua dành cho Nguyễn Chế Nghĩa. Khi tuổi cao, ông xin về trí sĩ tại quê nhà, có công sáng lập chợ Cối Xuyên, tên nôm gọi là chợ Cuối. Chợ Cuối tồn tại đến ngày nay và là một trong các chợ lớn nhất của tỉnh.